Неща, които трябва да знаете за срещата на високо равнище за безопасността на изкуствения интелект в Сеул
СЕУЛ, Южна Корея (AP) — Южна Корея ще бъде домакин на минисреща тази седмица относно рисковете и регулирането на изкуствения интелект, следвайки встъпителния изкуствен интелект среща по безопасността във Великобритания миналата година, която привлече разнообразна тълпа от технологични светила, изследователи и официални лица.
Срещата в Сеул има за цел да надгради работата, започната на срещата в Обединеното кралство за овладяване на заплахите, породени от авангардни системи за изкуствен интелект.
Ето какво трябва да знаете за AI Срещата на върха в Сеул и проблеми с безопасността на AI.
КАКВИ МЕЖДУНАРОДНИ УСИЛИЯ СА ПОЛОЖЕНИ ЗА БЕЗОПАСНОСТТА НА ИИ?
Срещата на върха в Сеул е едно от многото глобални усилия за създаване на парапети за бързо напредващата технология, която обещава да трансформира много аспекти на обществото, но също така повдигна загриженост относно нови рискове както за ежедневието, като алгоритмични отклонения, които изкривяват резултатите от търсенето, така и потенциални екзистенциални заплахи за човечеството.
На срещата на върха в Обединеното кралство през ноември, проведена в бивша секретна военновременна база за разбиване на кодове в северния Блечли от Лондон, изследователи, правителствени лидери, технически ръководители и членове на групи на гражданското общество, много от които с противоположни възгледи относно ИИ, събрани в разговори при закрити врата. Изпълнителният директор на Tesla Илон Мъск и изпълнителният директор на OpenAI Сам Олтман се смесиха с политици като британския премиер Риши Сунак.
Делегати от повече от две дузини държави, включително САЩ и Китай, подписаха Декларацията от Блечли, като се съгласиха да работят заедно, за да овладеят потенциално „катастрофалните“ рискове, породени от галопиращия напредък в областта на изкуствения интелект.
През март Общото събрание на ООН одобри първата си резолюция относно изкуствения интелект, подкрепяйки международните усилия да се гарантира, че мощната нова технология е от полза за всички нации, зачита човешките права и е „безопасна, сигурна и надеждна“.
По-рано този месец САЩ и Китай проведоха първите си разговори на високо ниво относно изкуствения интелект в Женева, за да обсъдят как да се справят с рисковете от бързо развиващата се технология и да определят общи стандарти за управлението ѝ. Там официални представители на САЩ изразиха загриженост относно „злоупотребата с ИИ“ от страна на Китай, докато китайски представители упрекнаха САЩ за „ограниченията и натиска“ върху изкуствения интелект, според техните правителства.
КАКВО ЩЕ СЕ ОБСЪЖДА НА СРЕЩАТА НА ВЪРХА В СЕУЛ?
Срещата на 21-22 май се организира съвместно от правителствата на Южна Корея и Обединеното кралство.
На първия ден, вторник, Южнокорейският президент Юн Сук Йол и Сунак ще се срещнат виртуално с лидерите. Няколко световни лидери в индустрията бяха поканени да предоставят актуална информация за това как изпълняват ангажиментите, поети на срещата на върха в Блечли, за да гарантират безопасността на своите AI модели.
На втория ден цифровите министри ще се съберат за лична среща, организирана от южнокорейския министър на науката Лий Джонг-хо и министъра на технологиите на Великобритания Мишел Донелан. Участниците ще споделят добри практики и конкретни планове за действие. Те също така ще споделят идеи как да предпазят обществото от потенциално отрицателни въздействия на изкуствения интелект върху области като потреблението на енергия, работниците и разпространението на грешна и дезинформация, според организаторите.
Срещата е наречена мини виртуална среща на върха, която служи като междинна среща, докато Париж проведе пълноценно лично издание по-късно тази година.
Срещата на цифровите министри трябва да включва представители от държави като Съединените щати, Китай, Германия, Франция и Испания и компании, включително създателя на ChatGPT OpenAI, Google, Microsoft и Anthropic.
КАКЪВ НАПРЕДЪК СА ПОСТИГНАЛИ УСИЛИЯТА ЗА БЕЗОПАСНОСТТА НА ИИ?
Споразумението, постигнато на срещата в Обединеното кралство, беше леко по отношение на подробностите и не предлагаше начин за регулиране на развитието на ИИ.
>„Съединените щати и Китай стигнаха до последната среща на върха. Но когато разгледаме някои принципи, обявени след срещата, те бяха подобни на това, което вече беше обявено след някои срещи на ООН и ОИСР“, каза Лий Сеонг-йоб, професор във Висшето училище по мениджмънт на технологиите в Корейския университет в Сеул. „Нямаше нищо ново.“
Важно е да се проведе глобална среща на върха по въпросите на безопасността на ИИ, каза той, но ще бъде „значително трудно“ за всички участници да постигнат споразумения, тъй като всяка страна има различни интереси и различни нива на вътрешни AI технологии и индустрии.
Събирането се провежда, докато Meta, OpenAI и Google пускат най-новите версии на своите модели AI.
Оригиналната среща на върха за безопасността на ИИ беше замислена като място за изготвяне на решения за така наречените екзистенциални рискове, породени от най-мощните „модели на основата“, които са в основата на системи с ИИ с общо предназначение като ChatGPT.
Пионерски компютър ученият Йошуа Бенгио, наричан един от „кръстниците на ИИ“, беше избран на срещата в Обединеното кралство да ръководи експертна група, натоварена с изготвянето на доклад за състоянието на безопасността на ИИ. Междинна версия на доклада, публикувана в петък, за да информира дискусиите в Сеул, идентифицира набор от рискове, породени от ИИ с общо предназначение, включително злонамерената му употреба за увеличаване на „мащаба и сложността“ на измами и измами, засилване на разпространението на дезинформация или създаване нови биологични оръжия.
Неправилно работещите AI системи могат да разпространят пристрастия в области като здравеопазване, наемане на работа и финансово кредитиране, докато потенциалът на технологията да автоматизира голям набор от задачи също създава системни рискове за пазара на труда, се казва в доклада.
Южна Корея се надява да използва срещата на върха в Сеул, за да поеме инициативата за формулиране на глобално управление и норми за ИИ. Но някои критици казват, че на страната липсва инфраструктура за изкуствен интелект, достатъчно напреднала, за да играе водеща роля в такива въпроси на управлението.
__
Чан съобщи от Лондон.
